The number of international benchmarking competitions is steadily increasing in various fields of machine learning (ML) research and practice. So far, however, little is known about the common practice as well as bottlenecks faced by the community in tackling the research questions posed. To shed light on the status quo of algorithm development in the specific field of biomedical imaging analysis, we designed an international survey that was issued to all participants of challenges conducted in conjunction with the IEEE ISBI 2021 and MICCAI 2021 conferences (80 competitions in total). The survey covered participants' expertise and working environments, their chosen strategies, as well as algorithm characteristics. A median of 72% challenge participants took part in the survey. According to our results, knowledge exchange was the primary incentive (70%) for participation, while the reception of prize money played only a minor role (16%). While a median of 80 working hours was spent on method development, a large portion of participants stated that they did not have enough time for method development (32%). 25% perceived the infrastructure to be a bottleneck. Overall, 94% of all solutions were deep learning-based. Of these, 84% were based on standard architectures. 43% of the respondents reported that the data samples (e.g., images) were too large to be processed at once. This was most commonly addressed by patch-based training (69%), downsampling (37%), and solving 3D analysis tasks as a series of 2D tasks. K-fold cross-validation on the training set was performed by only 37% of the participants and only 50% of the participants performed ensembling based on multiple identical models (61%) or heterogeneous models (39%). 48% of the respondents applied postprocessing steps.

作为主导范式，微调目标数据的预先训练模型广泛用于许多深度学习应用，特别是对于小数据集。然而，最近的研究已经明确表明，一旦培训迭代的数量增加，划痕训练都没有比这一训练前策略更糟糕的最终表现。在这项工作中，我们从学习理论中流行的泛化分析的角度重新审视这种现象。我们的结果表明，最终预测精度可能具有对预训练模型的弱依赖性，特别是在大训练迭代的情况下。观察激励我们利用预训练预调整的数据，因为此数据也可用于微调。使用预训练数据的泛化结果表明，当适当的预训练数据包含在微调中时，可以提高目标任务的最终性能。随着理论发现的洞察力，我们提出了一种新颖的选择策略来选择从预训练数据中的子集，以帮助改善目标任务的概括。 8个基准数据集上的图像分类任务的广泛实验结果验证了基于数据选择的微调管道的有效性。

集群歧视是无监督的代表学习的有效借口任务，这通常由两个阶段组成：聚类和歧视。群集是为每个实例分配伪标签，该标签将用于学习歧视中的表示。主要挑战驻留在群集中，因为普遍的聚类方法（例如，k-means）必须以批处理模式运行，并且可以有一个琐碎的解决方案由主导集群组成。为解决这些挑战，我们首先调查基于聚类的代表学习的目标。基于此，我们提出了一种新的基于聚类的借口任务，具有在线受限的K-means（可乐）。与每个群集具有完全相同的大小的平衡集群相比，我们只限制每个群集的最小大小，以灵活地捕获固有的数据结构。更重要的是，我们的在线分配方法具有接近全球最佳的理论保证。通过解耦聚类和歧视，可焦炭可以在每个实例中仅优化单个视图时实现竞争性能。关于Imagenet的广泛实验验证了我们提案的效力和效率。代码将被释放。

Learning with noisy-labels has become an important research topic in computer vision where state-of-the-art (SOTA) methods explore: 1) prediction disagreement with co-teaching strategy that updates two models when they disagree on the prediction of training samples; and 2) sample selection to divide the training set into clean and noisy sets based on small training loss. However, the quick convergence of co-teaching models to select the same clean subsets combined with relatively fast overfitting of noisy labels may induce the wrong selection of noisy label samples as clean, leading to an inevitable confirmation bias that damages accuracy. In this paper, we introduce our noisy-label learning approach, called Asymmetric Co-teaching (AsyCo), which introduces novel prediction disagreement that produces more consistent divergent results of the co-teaching models, and a new sample selection approach that does not require small-loss assumption to enable a better robustness to confirmation bias than previous methods. More specifically, the new prediction disagreement is achieved with the use of different training strategies, where one model is trained with multi-class learning and the other with multi-label learning. Also, the new sample selection is based on multi-view consensus, which uses the label views from training labels and model predictions to divide the training set into clean and noisy for training the multi-class model and to re-label the training samples with multiple top-ranked labels for training the multi-label model. Extensive experiments on synthetic and real-world noisy-label datasets show that AsyCo improves over current SOTA methods.

最先进的（SOTA）深度学习乳房X线照片分类器接受了弱标记的图像训练，通常依赖于产生有限解释性预测的全球模型，这是他们成功地转化为临床实践的关键障碍。另一方面，基于原型的模型通过将预测与训练图像原型相关联，改善了可解释性，但是它们的准确性不如全球模型，其原型往往具有差的多样性。我们通过BraixProtopnet ++的建议解决了这两个问题，该问题通过将基于原型的模型结合起来，为全局模型增添了解释性。 BraixProtopnet ++在训练基于原型的模型以提高合奏的分类精度时，会提炼全局模型的知识。此外，我们提出了一种方法来通过保证所有原型都与不同的训练图像相关联，以增加原型多样性。对弱标记的私人和公共数据集进行的实验表明，BraixProtopnet ++的分类精度比基于SOTA Global和基于原型的模型具有更高的分类精度。使用病变定位来评估模型可解释性，我们显示BraixProtopnet ++比其他基于原型的模型和全球模型的事后解释更有效。最后，我们表明，BraixProtopnet ++学到的原型的多样性优于基于SOTA原型的方法。

在分析筛查乳房X线照片时，放射科医生可以自然处理每个乳房的两个同侧视图，即颅底审计（CC）和中外侧 - 粘合剂（MLO）视图。这些多个相关图像提供了互补的诊断信息，并可以提高放射科医生的分类准确性。不幸的是，大多数现有的深度学习系统，受过全球标记的图像培训，缺乏从这些多种观点中共同分析和整合全球和本地信息的能力。通过忽略筛选发作的多个图像中存在的潜在有价值的信息，人们限制了这些系统的潜在准确性。在这里，我们提出了一种新的多视图全球分析方法，该方法基于全球一致性学习和对乳房X线照片中同侧观点的局部同时学习，模仿放射科医生的阅读程序。广泛的实验表明，在大规模的私人数据集和两个公开可用的数据集上，我们的模型在分类准确性和概括方面优于竞争方法，在该数据集和两个公开可用的数据集上，模型仅受到全球标签的培训和测试。

多模式学习通过在预测过程中同样组合多个输入数据模式来重点关注培训模型。但是，这种相等的组合可能不利于预测准确性，因为不同的方式通常伴随着不同水平的不确定性。通过几种方法研究了使用这种不确定性来组合模式，但是成功有限，因为这些方法旨在处理特定的分类或细分问题，并且不能轻易地转化为其他任务，或者遭受数值的不稳定性。在本文中，我们提出了一种新的不确定性多模式学习者，该学习者通过通过跨模式随机网络预测（CRNP）测量特征密度来估计不确定性。 CRNP旨在几乎不需要适应来在不同的预测任务之间转换，同时进行稳定的培训过程。从技术角度来看，CRNP是探索随机网络预测以估算不确定性并结合多模式数据的第一种方法。对两个3D多模式医学图像分割任务和三个2D多模式计算机视觉分类任务的实验显示了CRNP的有效性，适应性和鲁棒性。此外，我们提供了有关不同融合功能和可视化的广泛讨论，以验证提出的模型。

医疗IM年龄分析（MIA）中的有效半监督学习（SSL）必须解决两个挑战：1）在多级（例如病变分类）和多标签（例如，多疾病诊断）问题上， 2）处理不平衡的学习（因为疾病患病率的高度）。解释SSL MIA的一个策略基于伪标签策略，但是有几个缺点。伪标签具有比一致性学习比一致性的精度，它没有针对多级和多标签问题的特定设计，并且可以通过不平衡的学习来挑战。在本文中，与通过阈值选择自信的伪标签的传统方法不同，我们提出了一种新的SSL算法，称为ANT-CURICULUM伪标签（ACPL），这引入了新颖的技术选择信息，改善培训平衡并允许模型。为多标签和多级问题工作，并通过准确的分类器组合估算伪标签（提高伪标签精度）。我们运行广泛的实验，以评估两种公共医学图像分类基准的ACPL：胸部X射线14用于胸部疾病的多标签分类和SISIC2018用于皮肤病变多级分类。我们的方法在两个数据集上胜过以前的SOTA SSL方法。

使用输入图像，功能或网络扰动的一致性学习已经显示出半监督语义分割的显着结果，但这种方法可能受到未准确的未标记训练图像的预测的严重影响。这些不准确的预测有两种后果：1）基于“严格”的跨熵（CE）损失的培训可以容易地过度造成预测错误，导致确认偏见; 2）应用于这些不准确的预测的扰动将使用可能错误的预测作为训练信号，降低一致性学习。在本文中，我们解决了具有新颖的教师（MT）模型的一致性学习方法的预测准确性问题，包括新的辅助教师，并通过更严格的信心更换MT的均方误差（MSE） - 加权交叉熵（CONF-CE）损失。该模型的准确预测使我们能够利用网络，输入数据和特征扰动的具有挑战性的组合，以改善特征扰动的一致性学习概括，其中包括新的对抗扰动。 Public基准的结果表明，我们的方法通过现场上一个SOTA方法实现了显着的改进。

最先进的（SOTA）复杂城市驾驶场景的异常分割方法探索从异常曝光或外部重建模型中了解的像素明智的分类不确定性。然而，之前将高不确定性直接对异常关联的不确定性方法有时可能导致不正确的异常预测，外部重建模型对于实时自动驾驶嵌入式系统往往是过低的。在本文中，我们提出了一种新的异常分段方法，命名为像素 - 明智的能量偏置的弃权学习（PEBAL），探讨了与学习自适应像素级异常类的模型的像素 - 方向弃权学习（AL），以及基于能量的模型（EBM），了解了Inlier像素分布。更具体地说，PEBAL基于EBM和A1的非琐碎的关节训练，其中EBM培训以输出用于异常像素的高能（来自异常曝光），并且培训AL，使得这些高能量像素接受自适应低罚款被纳入异常课程。我们广泛评估PEBAL对抗SOTA，并表明它可以实现四个基准的最佳性能。代码可在https://github.com/tianyu0207/pebal上获得。